Điều 8 của Công ước trao cho Hội Quốc Liên nhiệm vụ giảm "vũ trang đến mức tối thiểu phù hợp với an ninh quốc gia và thực thi bằng hành động chung các nghĩa vụ quốc tế."[152] Một lượng đáng kể thời gian và hoạt động của Hội Quốc Liên là dành cho mục tiêu này, mặc dù nhiều chính phủ thành viên không chắc chắn rằng giải trừ quân bị bao quát như vậy có thể hoàn thành hoặc thậm chí là đáng mong đợi.[153] Theo Hiệp ước Versailles, các cường quốc Đồng Minh cũng có bổn phận nỗ lực giảm quân bị, và các hạn chế vũ trang áp đặt đối với các quốc gia chiến bại được mô tả là bước đầu tiên hướng đến giải trừ quân bị toàn cầu.[153] Công ước Hội Quốc Liên phân công Hội Quốc Liên có nhiệm vụ thiết lập một kế hoạch giải trừ quân bị cho mỗi quốc gia, song Hội chính vụ trao cho trách nhiệm này cho một ủy ban đặc biệt thiết lập trong năm 1926 nhằm chuẩn bị cho Hội nghị giải trừ quân bị thế giới 1932–34.[154] Các thành viên của Hội Quốc Liên có những quan điểm khác nhau về vấn đề, Pháp miễn cưỡng giảm vũ trang của họ trong khi không có một đảm bảo trợ giúp quân sự nếu bị tấn công; Ba Lan và Tiệp Khắc cảm thấy dễ bị tấn công từ phía tây và muốn Hội Quốc Liên tăng cường phản ứng đối với hành vi xâm lược chống lại một thành viên trước khi họ giải trừ quân bị.[155] Không có sự đảm bảo này, họ sẽ không giảm vũ trang do nhận thấy nguy cơ tấn công từ Đức là quá lớn. Lo sợ về việc bị tiến công tăng lên khi Đức hồi phục sức mạnh sau Chiến tranh thế giới thứ nhất, đặc biệt là sau khi Adolf Hitler giành được quyền lực và trở thành thủ tướng Đức vào năm 1933. Những cố gắng của Đức nhằm đạp đổ Hiệp ước Versailles và tái thiết lực lượng quân sự Đức khiến Pháp càng không sẵn lòng giải trừ quân bị.[154]

Hội Quốc Liên triệu tập Hội nghị giải trừ quân bị thế giới tại Genève vào năm 1932, với các đại biểu từ 60 quốc gia. Một lệnh tạm ngưng mở rộng vũ trang trong một năm, sau đó kéo dài thêm một vài tháng, được đề xuất tại đầu hội nghị.[156] Uỷ ban giải trừ quân bị đạt được thỏa thuận ban đầu từ Pháp, Ý, Nhật Bản và Anh nhằm giới hạn quy mô hải quân của họ. Hiệp ước Kellogg–Briand với sự hỗ trợ từ ủy ban trong năm 1928 đã thất bại trong mục tiêu cấm chỉ chiến tranh. Cuối cùng, ủy ban thất bại trong việc ngăn chặn Đức, Ý, Nhật Bản xây dựng quân đội trong thập niên 1930. Hội Quốc Liên hầu như yên lặng khi phải đối diện với các sự kiện lớn dẫn đến Chiến tranh thế giới thứ hai, như khi Hitler tái vũ trang hóa Rheinland, chiếm Sudetenland và sáp nhập Áo- hành động bị cấm theo Hiệp ước Versailles. Trên thực tế, các thành viên của Hội Quốc Liên tự tái vũ trang. Năm 1933, Nhật Bản rút khỏi Hội Quốc Liên thay vì tuân theo quyết định của tổ chức,[157] Đức cũng rút khỏi trong cùng năm (sử dụng lý do là thất bại của Hội nghị giải trừ quân bị thế giới trong việc đồng thuận cân bằng vũ trang giữa Pháp và Đức), rồi đến Ý vào năm 1937.[158] Hành động có ý nghĩ cuối cùng của Hội Quốc Liên là trục xuất Liên Xô vào tháng 12 năm 1939 sau khi quốc gia này xâm chiếm Phần Lan.[159]